Đã có một số nỗ lực về mặt lý thuyết để tái tạo từ vựng Cao Câu Ly dựa trên những mảnh rời rạc của nhiều địa danh, được ghi lại trong Tam quốc sử ký, của những vùng đất một thời thuộc về Cao Câu Ly. Tuy nhiên, độ tin cậy để cho những địa danh này được xem là bằng chứng về mặt ngôn ngữ vẫn còn nhiều tranh cãi. Một số nhà ngôn ngữ đề xuất cái gọi là họ ngôn ngữ Phù Dư bao gồm ngôn ngữ của Phù Dư, Cao Câu Ly, Bách Tế và Cổ Nhật Bản. Các ghi nhận của người Trung Quốc dẫn xuất rằng ngôn ngữ của Cao Câu Ly, Phù Dư, Đông Uế và Cổ Triều Tiên tương tự nhau trong khi ngôn ngữ Cao Câu Ly khác biệt đáng kể với ngôn ngữ Mạt Hạt (Malgal hay Mohe, 靺鞨)[cần dẫn nguồn].

Cũng như nhiều vương triều khác tại vùng Đông Á, Cao Câu Ly sử dụng chữ Hán và viết theo lối văn tự cổ. Ngôn ngữ Cao Câu Ly còn chưa được hiểu rõ ngoại trừ một số ít từ vựng mà đa số đều được cho rằng tương tự ngôn ngữ Tân La và bị ảnh hưởng bởi ngữ hệ Tungus.[cần dẫn nguồn]Những người ủng hộ ngữ hệ Altai thì phân loại ngôn ngữ Cao Câu Ly là một nhánh của ngữ hệ này. Đa số các nhà ngôn ngữ Triều Tiên đều tin rằng ngôn ngữ Cao Câu Ly gần với ngữ hệ Altai nhất bên ngoài ba nước thời Tam Quốc tiếp theo sau Cổ Triều Tiên.

Ở đây cũng có thể thấy sự giống nhau đầy ấn tượng giữa Bách Tế và Cao Câu Ly, vốn phù hợp với những truyền thuyết kể lại rằng Bách Tế được hình thành bởi các con trai của người sáng lập nhà Cao Câu Ly. Tên họ trong thư tín triều đình Cao Câu Ly gần tương tự như Bách Tế và Tân La.[cần dẫn nguồn]

Một vài từ vựng gốc của Cao Câu Ly có thể tìm thấy trong tiếng Triều Tiên cổ (trước thế kỷ thứ 10 đến cuối thế kỷ thứ 14) nhưng đa số đã bị thay thế bằng từ vựng có nguồn gốc Tân La trước đó khá lâu.